Generación Autoregresiva Descentralizada
Descubre cómo la generación autoregresiva descentralizada logra equivalencia teórica con el entrenamiento centralizado. Validado en benchmarks multimodales.
#entrenamiento descentralizado
CCKS: Comunicación Basada en Consenso y Compartición de Conocimiento
Optimiza la cooperación multiagente con CCKS: consenso y compartición de conocimiento. Resultados superiores en StarCraft II y Google Football.
Unificar comunicaciones y actualizaciones locales en preentrenamiento de LLMs
GASLoC unifica comunicaciones y actualizaciones locales para preentrenar LLMs. Supera algoritmos descentralizados y compite con DiLoCo en eficiencia.
Equilibrios no lineales en modelos de juego potencial para aprendizaje federado
Descubre cómo los modelos de juego potencial revelan transiciones críticas en el aprendizaje federado, optimizando el equilibrio entre esfuerzo y recompensa.